Recently, CLIP has been applied to pixel-level zero-shot learning tasks via a two-stage scheme. The general idea is to first generate class-agnostic region proposals and then feed the cropped proposal regions to CLIP to utilize its image-level zero-shot classification capability. While effective, such a scheme requires two image encoders, one for proposal generation and one for CLIP, leading to a complicated pipeline and high computational cost. In this work, we pursue a simpler-and-efficient one-stage solution that directly extends CLIP's zero-shot prediction capability from image to pixel level. Our investigation starts with a straightforward extension as our baseline that generates semantic masks by comparing the similarity between text and patch embeddings extracted from CLIP. However, such a paradigm could heavily overfit the seen classes and fail to generalize to unseen classes. To handle this issue, we propose three simple-but-effective designs and figure out that they can significantly retain the inherent zero-shot capacity of CLIP and improve pixel-level generalization ability. Incorporating those modifications leads to an efficient zero-shot semantic segmentation system called ZegCLIP. Through extensive experiments on three public benchmarks, ZegCLIP demonstrates superior performance, outperforming the state-of-the-art methods by a large margin under both "inductive" and "transductive" zero-shot settings. In addition, compared with the two-stage method, our one-stage ZegCLIP achieves a speedup of about 5 times faster during inference. We release the code at https://github.com/ZiqinZhou66/ZegCLIP.git.

Federated learning (FL) is a promising approach to enable the future Internet of vehicles consisting of intelligent connected vehicles (ICVs) with powerful sensing, computing and communication capabilities. We consider a base station (BS) coordinating nearby ICVs to train a neural network in a collaborative yet distributed manner, in order to limit data traffic and privacy leakage. However, due to the mobility of vehicles, the connections between the BS and ICVs are short-lived, which affects the resource utilization of ICVs, and thus, the convergence speed of the training process. In this paper, we propose an accelerated FL-ICV framework, by optimizing the duration of each training round and the number of local iterations, for better convergence performance of FL. We propose a mobility-aware optimization algorithm called MOB-FL, which aims at maximizing the resource utilization of ICVs under short-lived wireless connections, so as to increase the convergence speed. Simulation results based on the beam selection and the trajectory prediction tasks verify the effectiveness of the proposed solution.

基于深的神经网络（DNNS）基于合成孔径雷达（SAR）自动靶标识别（ATR）系统已显示出非常容易受到故意设计但几乎无法察觉的对抗扰动的影响，但是当添加到靶向物体中时，DNN推断可能会偏差。在将DNN应用于高级SAR ATR应用时，这会导致严重的安全问题。因此，增强DNN的对抗性鲁棒性对于对现代现实世界中的SAR ATR系统实施DNN至关重要。本文旨在构建更健壮的DNN基于DNN的SAR ATR模型，探讨了SAR成像过程的领域知识，并提出了一种新型的散射模型引导的对抗攻击（SMGAA）算法，该算法可以以电磁散射响应的形式产生对抗性扰动（称为对抗散射器） ）。提出的SMGAA由两个部分组成：1）参数散射模型和相应的成像方法以及2）基于自定义的基于梯度的优化算法。首先，我们介绍了有效的归因散射中心模型（ASCM）和一种通用成像方法，以描述SAR成像过程中典型几何结构的散射行为。通过进一步制定几种策略来考虑SAR目标图像的领域知识并放松贪婪的搜索程序，建议的方法不需要经过审慎的态度，但是可以有效地找到有效的ASCM参数来欺骗SAR分类器并促进SAR分类器并促进强大的模型训练。对MSTAR数据集的全面评估表明，SMGAA产生的对抗散射器对SAR处理链中的扰动和转换比当前研究的攻击更为强大，并且有效地构建了针对恶意散射器的防御模型。

弱监督对象检测（WSOD）旨在仅训练需要图像级注释的对象检测器。最近，一些作品设法选择了从训练有素的WSOD网络生成的准确框，以监督半监督的检测框架以提高性能。但是，这些方法只需根据图像级标准将设置的训练分为标记和未标记的集合，从而选择了足够的错误标记或错误的局部盒子预测作为伪基真正的真实性，从而产生了次优的检测性能解决方案。为了克服这个问题，我们提出了一个新颖的WSOD框架，其新范式从弱监督到嘈杂的监督（W2N）。通常，通过训练有素的WSOD网络产生的给定的伪基真实性，我们提出了一种两模块迭代训练算法来完善伪标签并逐步监督更好的对象探测器。在定位适应模块中，我们提出正规化损失，以减少原始伪基真实性中判别零件的比例，从而获得更好的伪基真实性，以进行进一步的训练。在半监督的模块中，我们提出了两个任务实例级拆分方法，以选择用于训练半监督检测器的高质量标签。不同基准测试的实验结果验证了W2N的有效性，我们的W2N优于所有现有的纯WSOD方法和转移学习方法。我们的代码可在https://github.com/1170300714/w2n_wsod上公开获得。

在许多重要领域（例如计算机视觉，自然语言处理和推荐系统）中，使用深度神经网络（DNNS）的深度学习取得了很多成功。 DNN缺乏凸度已被视为许多优化方法的主要缺点，例如随机梯度下降，大大降低了神经网络应用的基因化。我们意识到，凸度在神经网络中是有意义的，并提出了指数多层神经网络（EMLP），这是一类参数凸神经网络（PCNN），在某些情况下可以在某些条件下进行有关神经网络的参数的凸面。实现。此外，我们提出了两层EGCN的凸度度量，并在凸度度变化时测试准确性。对于晚期实验，我们使用相同的体系结构来制作指数图卷积网络（EGCN），并在图形分类数据集上进行实验，其中我们的模型EGCN的性能优于图形卷积网络（GCN）和图形注意力网络（GAT GAT网络（GAT）（GAT） ）。

开放信息提取（OpenIE）促进了独立于域的大型语料库的关系事实的发现。该技术很好地适合许多开放世界的自然语言理解场景，例如自动知识基础构建，开放域问答和明确的推理。由于深度学习技术的快速发展，已经提出了许多神经开放式体系结构并取得了可观的性能。在这项调查中，我们提供了有关状态神经开放模型的广泛概述，其关键设计决策，优势和劣势。然后，我们讨论当前解决方案的局限性以及OpenIE问题本身的开放问题。最后，我们列出了最近的趋势，这些趋势可以帮助扩大其范围和适用性，从而为Openie的未来研究设定了有希望的方向。据我们所知，本文是有关此特定主题的第一篇评论。

视觉变压器（VIT）的几乎没有射击的学习能力很少进行，尽管有很大的需求。在这项工作中，我们从经验上发现，使用相同的少数学习框架，例如\〜元基线，用VIT模型代替了广泛使用的CNN特征提取器，通常严重损害了几乎没有弹药的分类性能。此外，我们的实证研究表明，在没有归纳偏见的情况下，VIT通常会在几乎没有射击的学习方面学习低资格的令牌依赖性，在这些方案下，只有几个标记的培训数据可获得，这在很大程度上会导致上述性能降级。为了减轻这个问题，我们首次提出了一个简单而有效的几杆培训框架，即自我推广的监督（Sun）。具体而言，除了对全球语义学习的常规监督外，太阳还进一步预处理了少量学习数据集的VIT，然后使用它来生成各个位置特定的监督，以指导每个补丁令牌。此特定于位置的监督告诉VIT哪个贴片令牌相似或不同，因此可以加速令牌依赖的依赖学习。此外，它将每个贴片令牌中的本地语义建模，以提高对象接地和识别能力，以帮助学习可概括的模式。为了提高特定于位置的监督的质量，我们进一步提出了两种技术：〜1）背景补丁过滤以滤掉背景补丁并将其分配为额外的背景类别； 2）空间一致的增强，以引入足够的多样性以增加数据，同时保持生成的本地监督的准确性。实验结果表明，使用VITS的太阳显着超过了其他VIT的少量学习框架，并且是第一个获得比CNN最先进的效果更高的性能。

通常观察到的最先进的自然语言技术问题，例如亚马逊alexa和苹果公司，是他们的服务不会因语言障碍而扩展到大多数发展中国家的公民。这种种群因其语言缺乏可用资源来构建NLP产品。本文介绍了allwoz，一个多语言多域面向任务的客户服务对话框数据集覆盖八种语言：英语，普通话，韩语，越南语，印地语，法国，葡萄牙语和泰国。此外，我们通过使用mt5与元学习来创建多语言数据集的基准。

改善深度神经网络（DNN）对抗对抗示例的鲁棒性是安全深度学习的重要而挑战性问题。跨越现有的防御技术，具有预计梯度体面（PGD）的对抗培训是最有效的。对手训练通过最大化分类丢失，通过最大限度地减少从内在最大化生成的逆势示例的丢失来解决\ excepitient {内部最大化}生成侵略性示例的初始最大优化问题。 。因此，衡量内部最大化的衡量标准是如何对对抗性培训至关重要的。在本文中，我们提出了这种标准，即限制优化（FOSC）的一阶静止条件，以定量评估内部最大化中发现的对抗性实例的收敛质量。通过FOSC，我们发现，为了确保更好的稳健性，必须在培训的\ Texit {稍后的阶段}中具有更好的收敛质量的对抗性示例。然而，在早期阶段，高收敛质量的对抗例子不是必需的，甚至可能导致稳健性差。基于这些观察，我们提出了一种\ Texit {动态}培训策略，逐步提高产生的对抗性实例的收敛质量，这显着提高了对抗性培训的鲁棒性。我们的理论和经验结果表明了该方法的有效性。

会话推荐系统（CRS）通过推断用户首选项从对话历史推断用户偏好，提供准确的建议，并生成适当的响应。以前的CRSS使用基于知识图（kg）的推荐模块，并将kg与语言模型集成为响应生成。虽然基于KG的方法证明有效，但仍有两个问题仍有待解决。首先，基于KG的方法忽略会话环境中的信息，但仅依赖于实体关系和单词包来推荐项目。其次，它需要实质性的工程努力来维持模型特定的关系的KG，从而导致灵活性更少。在本文中，我们提出了一种简单而有效的架构，包括预先接受了训练的语言模型（PLM）和项目元数据编码器。编码器学会将项目元数据映射到嵌入式，该嵌入式可以反映对话框上下文中的语义信息。然后，PLM将语义对齐的项目嵌入式与对话上下文一起消耗，以生成高质量的建议和响应。我们的模型通过直接将每个项目转换为嵌入来降低工程复杂性而不是建模实体关系。基准数据集重拨的实验结果表明，我们的模型在两种推荐和响应生成任务上获得最先进的结果。